面向任务的长文档视觉问答综述：分类、演进与未来方向
🧭 多模态检索增强生成 · 长文档 VQA 综述
College of Computer Science and Technology, Zhejiang University · School of Software Technology, Zhejiang University · Polytechnic Institute, Zhejiang University · BWTON Technology Co., Ltd.
以任务瓶颈为主线，系统梳理长文档 VQA 的解析、证据检索、生成与评测，突出预算约束下的证据充分性
📌 工作参考价值（4 点）
- 电商售后、产品手册、合规条款等长文档问答场景，可参考其「证据组织与检索」组件化设计：把版面元素（表格、图表、段落空间关系）作为显式检索证据，而不仅是文本 chunk。
- 广告审核、商家资质审核需要从长合同/报告中找到依据，可借鉴「预算感知协调」与可验证理解的思想，在 token/延迟约束下动态选择直接阅读或检索。
- 面向客服 Agent 的架构：论文梳理的 Agentic Reasoning 与显式检索结合，可用于设计能持续管理证据、支持可纠正问答的长文档助手，降低幻觉风险。
- 评测维度中的证据充分性、可验证性，可直接迁移到内部长文档 VQA 评测集构建，重点考察答案是否有高保真证据支撑。
语言模型能玩维基百科游戏吗？
🧭 LLM 信息检索导航能力评测
The Alan Turing Institute
构建大规模本地维基与引文图，评测 LLM 跨语言/跨领域导航检索，最佳模型与人类相当但未超越
📌 工作参考价值（4 点）
- 借鉴 Wikipedia Game 评测框架，用本地构建的商品/内容链接图（如商品详情页关联、类目树、百科内链）替代依赖外部 API，低成本评测 LLM 在业务知识图谱上的多跳导航与检索能力，提前发现跨类目/跨语言失效模式。
- 在选型 LLM 做检索或 Agent 路径规划时，不要只看平均分：模型在不同语言/话题下排名会反转，业务上应按店铺类目、搜索语言分别评测，针对性部署或路由。
- 把 TF-IDF 和人工导航成功率作为双 baseline：当 LLM 只是“与人类相当”时，适合做辅助或候选生成，不建议完全替代人工；工程上可设置阈值或 human-in-the-loop 校验。
- 若构建商品/论文/类目大规模图并导航，可复用该工作已开源的 Wikipedia 与 OpenAlex 图构建代码，作为本地 RAG/GraphRAG 的路径探索与评测数据集。
QueryRoute：查询改写选择的标准化评测基准
🧭 查询改写选择 / Query Routing 基准 ★ 深度解读
Toronto Metropolitan University · University of California, Berkeley · University of Waterloo · Mila - Quebec AI Institute · University of Toronto
冻结查询改写候选池与检索结果，系统评估改写选择器在跨检索器/领域下的上限与差距
📌 工作参考价值（4 点）
- 线上如果有多个查询改写/扩展策略（LLM prompt 变体、伪文档、关键词扩展），不要只按平均 A/B 选一个固定策略；应按 query 路由，且先离线构建候选池 + 各改写召回结果，复用 QueryRoute 的 action–outcome matrix 思路，把路由评估变成只读决策问题。
- LLM-as-judge 在 BM25 稀疏检索上最强，但在 BGE/SPLADE 等更强检索器下，没有任何学习型 selector 超过固定最优改写；说明稠密检索已经吃掉改写收益时，业务应优先投入检索器质量或相关性精排，而不是改写路由。
- 评估 selector 时，均值 nDCG 会掩盖 query 级路由行为；建议同时加 near-oracle rate、help/hurt rate、regret、selection entropy 等决策质量指标，否则两个均值接近的方法可能一个靠少数 query 拉高、另一个稳定性更好。
- 工程实现可参考：离线落 query 原词、候选改写、多 retriever 召回列表和 retrieval score；用 QPP/embedding similarity router 做低成本冷启动，LLM-as-judge 做高成本兜底，按 retriever 类型分别评估。
超越极化：逐点重排序中思维链的生成式约束
🧭 CoT 推理在逐点重排序中的生成式瓶颈
University of Chinese Academy of Sciences · Chinese Information Processing Laboratory, Institute of Software, Chinese Academy of Sciences · Tencent
实证表明 CoT 在逐点重排序中的性能差距跨尺度稳定且训练干预难以消除，根因是离散文本生成限制连续相关性信号
📌 工作参考价值（4 点）
- 在电商搜索/推荐排序中，若用 LLM 做 pointwise 打分（query-item 相关性），应优先选择直接输出数值的评分头，避免让模型先输出 CoT 再打分；CoT 的离散 token 生成会降低排序信号分辨率，导致分数极化和校准偏差。
- 论文证明即使通过 RL、细粒度监督、结构解耦等干预，相对排序 gap 依然存在，说明该瓶颈是范式层面的，不是数据或模型容量问题；业务中不要期望通过调优 CoT 模型达到与直接打分模型相同的排序性能，更务实的方案是改用 listwise/pairwise 方法，或将 CoT 用于 query 理解、解释生成等非排序环节。
- 如果需要可解释推荐理由，建议两阶段：先用直接打分模型完成排序，再用独立的解释生成模型基于已排序结果生成理由，避免 CoT 介入排序决策。
- 设计生成式排序模型时，应尽量避免强制文本推理，可考虑连续表示或隐式推理机制，以减少信息损失。
基于锚点的逐点LLM重排序何时有效？重排序质量、统计范围及锚点设计分析
🧭 LLM重排序 · 锚点设计 · 复现性研究
Missouri University of Science and Technology
复现揭示锚点重排序的对比评分是核心，但结合标准得分仅对弱检索器有益，简单锚点优于复杂设计。
📌 工作参考价值（4 点）
- 在推荐/搜索的多阶段排序中，若一阶段粗排模型足够强（如稠密双塔），使用锚点重排序时无需额外融合标准逐点相关性分数，可简化架构。
- 锚点构造无需复杂聚合，直接交错拼接top排序的句子即可达到或超过原复杂方法，降低工程实现成本。
- 重视方法复现中的隐藏细节：论文发现原方法有8个未公开细节，迁移类似方法时需通过充分消融实验验证，避免性能缩水。
- 进行离线评估或A/B测试时，应采用Bonferroni等多重比较校正，确保效果统计可靠，避免假阳性结论。
理解环境感知信息检索的行为
🧭 RL驱动的查询改写自适应检索器
Fudan University · Alibaba DAMO Academy · Chinese University of Hong Kong · Stanford University · Shanghai University of Finance and Economics
首次用强化学习使LLM学会为不同检索器自适应生成查询风格，并揭示各检索器最优查询风格差异显著
📌 工作参考价值（4 点）
- 电商搜索常混合使用倒排索引与向量检索器，可借鉴 RL 训练查询改写模型，使其根据后台检索器类型动态调整 query 风格（如对 BM25 生成关键词式，对向量检索器生成描述性文本），提升召回相关性。
- 多步检索场景中，可利用论文提出的分支 rollout 技术稳定训练改写策略，避免长轨迹的奖励震荡，适用于需要多轮交互的 Agent 搜索链。
- 揭示的检索器偏好差异（Contriever 偏好文档段落式查询，BM25 偏好精确关键词）可直接指导搜索系统的预处理或 prompt 设计：根据检索器类型设定不同的改写模板或约束。
- 引入检索器特有的人类先验作为辅助奖励，可加速 RL 训练并注入业务知识，类似推荐系统中利用人工规则冷启动生成式模型。
用 LLM 合成查询与标签破解自然语言搜索冷启动
🧭 自然语言搜索 · 合成数据冷启动 ★ 深度解读
Airbnb
用少量种子查询引导 LLM 生成带标咨询数据和标签，使查询分布接近真实用户，支持检索与排序模型冷启动训练
📌 工作参考价值（4 点）
- 用种子查询控制 LLM 生成风格：直接让 LLM 无约束生成会产出冗长、多属性的查询，与真实用户短促、不规范的表达严重不匹配。从用户调研或早期日志中收集数百条种子查询作为模板，可以大幅降低 KL 散度（本文从 4.95→0.66），实现更逼真的查询分布。在电商搜索、对话式推荐中可复用此思路，用小样本种子让合成数据贴合真实语言。
- 三类提示模板平衡真实性与多样性：seed_controlled 严格保持种子结构，适合属性覆盖；seed_freeform 模仿风格但允许变化；variety 放松约束、提高温度，探索长尾意图。实际生成时按比例混合三种模板，既能保证主流查询的真实感，又能覆盖边缘场景。推荐系统在生成候选集时可借鉴这种分阶段控制的提示策略。
- 困难样本构建的分层采样与提示技巧：为避免全是简单样本（所有模型都能答对），通过限制样本对相似度（同类别、嵌入距离过滤）和提示中加入“难度桶”、反事实编辑等手段生成有区分度的训练数据。这对于提高 ranking 模型的迭代信号非常重要，电商场景下可借鉴硬负样本挖掘来提升模型判别力。
- 从 LLM 自生成数据中避开自偏好陷阱：用 LLM 评估 LLM 生成的内容容易出现系统性偏爱（本文 GPT 评估自身生成的对准确率高达 99%），实际训练中建议用构建式标签（对比生成）保证高保真，用 LLM 评估仅作离线质量检查；且通过属性锚定、人工校准、使用异构模型降低自我偏好风险。这对任何用 LLM 生成训练数据的团队都是重要提醒。
传统统计表示在识别同行评审专家方面优于生成式AI
🧭 专家推荐 · 信息检索评估
Michigan State University · Masaryk University · Max Planck Institute for Astrophysics · Joint ALMA Observatory · Stanford University
在细粒度领域专家匹配任务上，TF-IDF明显优于GPT-4o mini，揭示了生成式语义平滑的局限
📌 工作参考价值（4 点）
- 构建专家匹配或领域内容推荐系统时，不要盲目引入 LLM；TF-IDF 等稀疏词汇匹配在需要区分近似子领域的场景下可能更可靠。
- 评估框架可复用：以项目提案作者作为领域专家的 ground truth，用召回率等 IR 指标严格对比方法，这种设计在电商的商家-类目匹配、达人-品类对齐等场景中也可应用。
- 生成式嵌入的语义平滑会丢失细粒度词汇信息，可考虑混合稀疏/稠密表示（如结合 TF-IDF 与 LLM embedding）来提升长尾或冷启动物品的推荐精度。
- 在 Agent 的工具调用或知识检索模块中，若任务需要精确匹配专有名词或小领域术语，传统检索方式可能比基于 LLM 的 RAG 更有效，可作为基线。